OpenAI a prezentat joi noile sale modele o1, care oferă progrese semnificative în domeniul gândirii logice, al rezolvării problemelor și al răspunsurilor la întrebări științifice. Modelele sunt considerate un pas esențial pe drumul către dezvoltarea unei inteligențe generale artificiale (AGI) – mașini care ating o capacitate de gândire umană.

În harta de sistem însoțitoare, care descrie modul de funcționare al inteligenței artificiale, OpenAI recunoaște însă că noile modele au crescut „semnificativ” riscul de abuz al tehnologiei, în special în legătură cu fabricarea armelor biologice. Pentru prima dată, compania a acordat modelelor sale o „evaluare de risc medie” în ceea ce privește armele chimice, biologice, radiologice și nucleare (CBRN). Acest lucru înseamnă că tehnologia a îmbunătățit semnificativ capacitățile experților de a dezvolta arme biologice.

Software avansată de inteligență artificială, care este capabilă să efectueze raționamente logice pas cu pas, prezintă, potrivit experților, un potențial crescut de abuz. Yoshua Bengio, unul dintre cei mai importanți cercetători în domeniul inteligenței artificiale la nivel mondial, a subliniat urgența unor reglementări legale pentru a minimiza aceste riscuri. El a făcut referire la un proiect de lege din California care ar impune companiilor să ia măsuri de securitate pentru a preveni utilizarea inteligenței artificiale în dezvoltarea de arme biologice. „Cu cât inteligența artificială avansează mai mult spre AGI, cu atât riscurile devin mai mari în absența unor măsuri de protecție adecvate”, a avertizat Bengio.

Companii de tehnologie precum Google, Meta și Anthropic lucrează în prezent și ele la dezvoltarea sistemelor avansate de inteligență artificială. Acești agenți AI ar putea ajuta oamenii să îndeplinească sarcini și oferă, de asemenea, oportunități de afaceri potențial profitabile pentru companiile care se confruntă cu costurile enorme ale dezvoltării AI.

Mira Murati, Chief Technology Officer al OpenAI, a declarat pentru Financial Times că compania procedează cu deosebită atenție la lansarea modelelor o1, deoarece acestea au capacități extinse. Totuși, modelele vor fi accesibile prin ChatGPT pentru abonații plătitori și printr-un API pentru programatori. Murati a mai adăugat că modelele au fost supuse unor teste de siguranță ample și au performat mult mai bine în ceea ce privește siguranța decât versiunile anterioare.